Qu'est-ce qui n'a pas fonctionné : comment un modèle OpenAI est devenu voyou | Affaires CNN

Lorsque les biologistes expérimentent sur des virus dangereux, ils le font dans le cadre de réglementations strictes afin d’éviter les fuites ou les évasions.

Mais aucune règle de ce type n’existe pour empêcher les agents d’IA de s’échapper de la même manière – même si les conséquences pourraient être catastrophiques.

Ce n’est pas une préoccupation théorique : un modèle de test OpenAI s’est échappé de son environnement de test cette semaine et s’est introduit dans les serveurs d’une véritable entreprise alors qu’il tentait de réussir une évaluation interne de cybersécurité.

Et à moins que les entreprises d’IA ne prennent des mesures de protection contre leurs tests, notamment en formant des modèles d’IA à la résolution de tâches éthiques, les experts affirment que davantage d’incidents de cybersécurité se produiront.

Le président d'OpenAI, Greg Brockman, a déclaré jeudi à CNN lors d'une conférence de presse que la société menait toujours une « enquête complète » pour « comprendre tout ce qui s'est passé ».

"C'est quelque chose à prendre très au sérieux, c'est quelque chose que nous examinons chaque élément de notre pipeline pour réfléchir aux bonnes façons d'y répondre...
[Courte citation de 8% de l'article original]